AlphaBet: Reinforcement Learning for LLM Event Forecasting Agents
AlphaBet:面向 LLM 事件预测智能体的强化学习框架
🧭 Agent 强化学习 · 事件预测
Georgia Institute of Technology · Amazon
用多日期事件结果联合监督证据搜索与概率报告,显著降低 Brier 分数并提升准确率
📌 工作参考价值(4 点)
- 多信息状态监督:利用同一事件在不同预测日期提供不同信息状态,让单个已解决事件监督多个决策点。可迁移到用户行为序列建模:对同一用户,在不同交互时刻构造不同上下文,用最终转化/成交结果监督每个时刻的决策,提升样本效率。
- GRPO 归一化陷阱:在需要概率校准的任务(如 CTR/CVR 预估、排序打分)中,如果采用 GRPO 做 RL 训练,注意其 std 归一化可能扭曲 proper scoring rule 下的概率报告,导致校准恶化但 top-1 准确率不变。建议在奖励设计时避免对概率型输出做过度的组内标准化,或分离校准与排序目标。
- Regret 分解诊断:将预测误差分解为证据获取 gap 和概率报告 gap,分别评估信息检索质量和概率校准能力。类似地,在推荐/搜索系统中可把整体损失拆成召回(信息获取)和排序(概率报告)两部分,定位瓶颈后再针对性优化。
- Agentic 三段式结构:search → reason → report 的固定流程可复用于需要动态获取外部信息的交互式推荐或对话搜索场景,让 policy 自主决定何时、如何获取证据再输出概率。